UserArena: Benchmarking Interactive User Simulation for Long-Horizon Shopping Agents
UserArena：长程购物 Agent 交互式用户模拟基准
🧭 用户模拟器 · 长程购物 Agent 基准 ★ 深度解读
Leiden University · Renmin University of China · Alibaba Group · Institute of Computing Technology, Chinese Academy of Sciences
构建真实电商长程交互基准与五级评估协议，并提出 on-policy trajectory distillation 提升用户模拟器保真度
📌 工作参考价值（4 点）
- 借鉴五级评估协议（L0-L4）构建业务用户模拟器验收流程：从动作解析有效率、下一步行为准确率、到序列分布和群体分层保真，最后对比策略 A/B 效果；尤其关注不平衡动作（如滚动占38%）用宏观 F1 而非微平均。
- OPTD 的训练策略可迁移到序列决策模型的离线训练：用 trajectory-level intent 作为 teacher 的 privileged context，在 student 自己的 rollout 上做 token-level 蒸馏（JSD），并用 trust region 限制意图影响，可减少 exposure bias 和稀疏监督，提升长程一致性。
- 建立模拟器-线上校准闭环：将相同策略对在模拟器中对比效果，与生产 A/B 效果比较（如 effect ratio 和 error），确保模拟器结论可指导业务决策；OPTD 达到 0.713× effect ratio，远好于通用大模型。
- 数据层面：整合用户跨会话长期行为（平均 10+ 会话）来训练和评估模拟器，比单会话更能揭示行为惯性；可结合用户属性、视觉上下文、完整动作空间来提升模拟器保真度。